인공지능(AI) 기술의 급격한 발전으로 인간 수준을 넘어선 초지능(Super Intelligence) 개발 단계에 진입했다는 주장이 나오면서 '인간의 통제력 상실'이란 근본적 우려가 제기되고 있습니다. <br /> <br />2일 IT 업계에 따르면 마크 저커버그 메타 CEO는 최근 연례 서한과 페이스북 등을 통해 초지능 구현이 가시권이라고 선언했습니다. <br /> <br />저커버그는 "지금까지 몇 달간 동안 AI 시스템이 스스로를 개선하는 모습을 목격했다"며 "(페이스북·인스타그램 등에서 수많은 AI 알고리즘을 살핀 결과) '초기 자기개선'(self-improvement)의 징후를 보이기 시작했다"고 밝혔습니다. <br /> <br />이어 "초지능은 다른 차원의 새로운 안전 우려를 제기할 것이기에 위험을 완화하기 위해 엄격해야 한다"며 "초지능 기술 혜택은 전 세계에 공유될 것이지만, 오픈소스로 공개하는 것은 신중히 선택해야 한다"고 선을 그었습니다. <br /> <br />메타가 지금까지 라마(Llama) 시리즈를 통해 견지한 오픈소스 정책에서 폐쇄형 전략으로 전환하겠다는 중대 변화를 의미합니다. <br /> <br />샘 올트먼 오픈AI CEO도 오픈웨이트(오픈소스) 모델을 올해 7월 공개한다고 예고했다가 추가 안전 테스트가 필요하다며 출시를 연기했습니다. <br /> <br />올트먼은 최근 팟캐스트 방송(This Past Weekend)에 출연해 "차세대 통합모델 'GPT-5'(GPT시리즈+o시리즈) 테스트 중 두려움을 느꼈다"며 "맨해튼 프로젝트와 같은 순간이었다"고 털어놨습니다. <br /> <br />그는 "테스트 일부 세션에선 매우 긴장했고 시작할 때 방 안에 어른이 없는 것 같은 느낌을 받았다"며 "AI 개발자들도 핵폭탄을 만든 맨해튼 프로젝트 과학자들처럼 '우리가 뭘 만든 거지'라는 질문을 던지게 될 수도 있을 것"이라고 말했습니다. <br /> <br />AI 관련 글로벌 리더와 학계는 오래전부터 AGI 또는 초지능 구현 시 인간의 통제력 상실 위험을 강하게 강조해왔습니다. <br /> <br />앞파폴드 개발 공로로 노벨화학상을 수상한 데미스 허사비스 구글 딥마인드 CEO는 지난 6월 CNN과의 인터뷰에서 AI 시스템의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 경고했습니다. <br /> <br />허사비스는 "나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다"며 "AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요하다"고 주장했습니다. <br /> <br />맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 "초지능 AI가 인간 통제를 벗어날 확... (중략)<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202508040942288788<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
